最年轻的AI安全“黑马”，如何斩获RSAC冠军？

热点事件

美国旧金山时间4月24日下午，RSA Conference™决赛在莫斯克尼（Moscone）中心正式落幕，AI安全厂商HiddenLayer一举夺魁。

RSAC是网络安全领域的全球顶级盛会，每年汇聚海量的世界顶级网络安全专家、政府和商业领袖，共同学习、讨论新兴趋势并制定最佳战略，至今已有32年历史。

HiddenLayer荣获RSAC2023冠军

本届冠军HiddenLayer解读

• 领域：人工智能安全

• 成立时间：2022年3月

• 创始团队：Chris Sestito、Tanner Burns和James Ballard

• 总部：美国

• 融资金额：600万美元

2023年2月21日，HiddenLayer为保护机器学习算法和模型及其数据安全提供了创新型AI解决方案，并由此入选RSAC 2023创新沙盒十强。它是2023年度创新沙盒十强中最年轻的公司，同时也是融资金额最少的公司，可谓是从众多强者之中杀出来的一匹“黑马”。HiddenLayer的夺冠，不仅得益于近年来AI技术话题的火爆，也得益于HiddenLayer在AI安全赛道的先驱者地位。

1、HiddenLayer的安全产品

HiddenLayer致力于保护人工智能和机器学习技术。它的旗舰产品Hidden Layer MLSec平台是首个AI网络安全平台，旨在提供对抗针对人工智能和机器学习模型的攻击（例如推理、数据中毒、提取和规避等ML攻击）。平台可以帮助安全运营和数据科学团队保护他们的AI投资，防止对抗性机器学习攻击。

HiddenLayer MLSec模型由HiddenLayer MLDR、HiddenLayer Security Model Scanner、HiddenLayer Security Audit Reporting组成。该平台提供了一个易于部署的平台，可以阻止对抗性攻击并提供对ML资产的健康和安全的可见性。

Hiddenlayer机器学习安全平台

HiddenLayer MLDR: 该解决方案正在申请专利。它提供了一个基于软件的非侵入性平台，它通过无上下文矢量化数据点识别ML模型流量中的模式，每分钟可支持数十亿次模型交互，以识别恶意活动，而无需访问或事先了解用户的ML模型或敏感训练数据。该产品提供针对机器学习模型攻击的全面防御，抵御针对在生产环境中部署的针对ML模型的对抗性攻击，可以监控机器学习算法的输入和输出，以发现与对抗性ML攻击技术一致的异常活动。通过灵活的响应框架立即采取响应措施来保护企业的ML。

HiddenLayer Security ModelScanner：通过识别漏洞并确保模型未被恶意代码注入而受到损害,扫描并保证模型的完整性。

HiddenLayer Security Audit Reporting：安全审计报告验证整个企业的机器学习模型的安全性。该模块提供人工智能和机器学习资产安全状态的全面视图，包括一个按需仪表板和包含漏洞优先级排序的报告，以实现对企业所有ML模型全面安全性状况的掌握。

2、HiddenLayer的安全咨询服务

HiddenLayer 的咨询服务主要包括威胁建模、机器学习模型风险评估、专家培训、红队评估、人工智能/机器学习模型扫描和机器学习模型检测与响应实施服务。HiddenLayer利用其网络安全、人工智能、逆向工程和威胁研究方面的深厚领域专业知识来提升行业对人工智能安全的重视。

从企业CISO角度来看，HiddenLayer能给出面向企业的AI资产梳理、风险发现和检测响应系统比较完整的方案，从防护理念、架构和产品来看都能兼容已建设的安全体系，也确实能解决企业上线AI引擎后知识产权保护、数据保护等一系列的风险。

AI安全赛道前瞻

HiddenLayer的夺冠得益于几年来人工智能话题的火爆。ChatGPT的成功无疑为HiddenLayer的热度又添了一把火。

值得一提的是，今年是RSAC创新沙盒大赛三十多年以来第一次把冠军颁发给AI安全。这预示着AI安全将会成为一个独立的赛道，人工智能拥有平民化、产业化的发展前景。

人工智能自上个世纪出现以来，虽然经历过多次爆发期，但至今仍未迎来普遍意义的人工智能时代。即便是Alpha go击败世界级围棋冠军这类轰动业界的大事件，也仅仅证实了AI在特定领域内可能拥有超越人类的能力，但并不能推而广之、解决人类需要直面的大多数问题。许多AI模型虽然能在棋类运动、自然语言和图像识别等领域突破巅峰，但并不擅长逻辑推理、领域知识、精确决策，导致其应用效果一般、应用价值有限。

目前，AI攻防在产业应用主要是在互联网巨头，独立产品的商业化落地还尚在早期。按HiddenLayer的说法，在他们的公司成立之前，还没有一家安全公司真正像他们一样“专注于模型安全”。因此，HiddenLayer的成功对于AI安全产业的发展有着里程碑的意义，将会激励包括HiddenLayer在内的众多初创公司，不断基于对现有AI模型的攻防推出自己的AI安全产品，不断复制成功案例，将AI安全赛道走好、走宽。

不少专家预测，AI安全赛道未来拥有相当可观的发展前景。据Price Waterhouse Cooper（普华永道会计师事务所）预测，到2030年，人工智能可为全球经济贡献高达15.7 万亿美元， 85%的商业领袖认为人工智能将在未来五年内显著改变他们开展业务的方式。

关于软安科技

软安科技有限公司2021年成立于成都，公司初始注册资本5000万元，由成都高新发展（000628）、新思科技（SNPS）、创始团队联合组建，定位成为国内领先的软件安全治理服务商。

公司基于国际领先的软件安全产品与技术体系，以本土化创新为驱动，融合人工通用智能等先进技术，围绕客户场景与需求，一站式解决软件“缺陷”识别难题，构筑数字世界软件安全基座！

软安科技成立至今，已积累了包括金融、汽车、互联网等行业在内的诸多知名企业客户。公司于成都、北京、上海、武汉、深圳五地设立办公机构，为全国市场提供产品及服务支撑。